GADT meet Subtyping

While generalized abstract datatypes (GADT) are now considered well-understood, adding them to a language with a notion of subtyping comes with a few surprises. What does it mean for a GADT parameter to be covariant? The answer turns out to be quite subtle. It involves fine-grained properties of the subtyping relation that raise interesting design questions. We allow variance annotations in GADT definitions, study their soundness, and present a sound and complete algorithm to check them. Our work may be applied to real-world ML-like languages with explicit subtyping such as OCaml, or to languages with general subtyping constraints. Key-words: subtyping, datatypes, variance Part of this work has been done at IRILL ha l-0 07 44 29 2, v er si on 1 22 O ct 2 01 2 GADT avec sous-typage Résumé : Les types algébriques généralisés (Generalized Algebraic Datatypes, GADT) sont maintenant bien compris, mais leur ajout à un langage équipé de soustypage nous réservait quelques surprises. Qu’est-ce qu’être covariant pour un paramètre de GADT ? La réponse s’avère difficile. Elle met en jeu des propriétés fines de la relation de sous-typage qui soulèvent d’intéressantes problématiques de conception de langage. Nous permettons des annotations de variance dans les définitions de GADT, étudions leur correction, et présentons un algorithme correct et complet pour les vérifier. Notre travail peut s’appliquer à un langage complet inspiré de ML et avec sous-typage explicite, tel que OCaml, ou même à des langages avec des contraintes générales de sous-typage. Mots-clés : sous-typage, types de données, variance ha l-0 07 44 29 2, v er si on 1 22 O ct 2 01 2 GADT meet subtyping 3